Tiền thân của phủ Gyeongsang được hình thành từ triều đại Cao Ly, thay thế các đạo cũ là Yeongnam, Sannam và Yeongdong.

Gyeongsang có tên như hiện nay từ năm 1314. Tên gọi của đạo xuất phát từ tên của hai thành chính trên địa bàn là Gyeongju (경주; 慶州; Khánh Châu) và Sangju (상주; 尙州, Thượng Châu).

Năm 1895, đạo Gyeongsang chia phân tách thành phủ Andong (Andong-bu; 안동부; 安東府; An Đông phủ) ở phía bắc, Daegu (Daegu-bu; 대구부; 大邱府; Đại Khâu phủ) ở giữa, Jinju (Jinju-bu; 진주부; 晉州府; Tấn Châu phủ) ở tây nam, và Dongnae (Dongnae-bu; 동래부; 東萊府; Đông Lai phủ) ở phía đông nam.

Năm 1896, các phủ Andong, Daegu, và miền bắc của phủ Dongnae được hợp nhất thành đạo Gyeongsang Bắc, còn Jinju và phần phái nam phủ Dongnae được hợp nhất thành đạo Gyeongsang Nam. Gyeongsang Bắc và Gyeongsang ngày nay là một phần của Hàn Quốc.